พระราชวรวงศ์เธอ กรมหมื่นกวีพจน์สุปรีชา ประชวรพระวาโย สิ้นพระชนม์ในรัชกาลที่ 7 เมื่อวันที่ 18 พฤษภาคม พ.ศ. 2470 เวลา 23:30 น. พระชันษา 56 ปี วันต่อมาเวลา 16:30 น. เจ้าพนักงานสรงพระศพ แล้วเชิญพระศพลงพระหีบลอง ตั้งบำเพ็ญกุศลที่วัดส้มเกลี้ยง[6]

วันที่ 20 พฤษภาคม พ.ศ. 2473 เวลา 17:30 น. พระบาทสมเด็จพระปกเกล้าเจ้าอยู่หัวเสด็จฯ มาพระราชทานเพลิงพระศพพร้อมกับพระศพพระราชวรวงศ์เธอ พระองค์เจ้าวิไลยวรวิลาส ณ พระเมรุวัดเบญจมบพิตรดุสิตวนารามราชวรวิหาร เช้าวันต่อมาพระราชวรวงศ์เธอ กรมหมื่นพิทยาลงกรณ์ เสด็จมาบำเพ็ญกุศลสามหาบ แล้วเจ้าพนักงานเชิญพระอัฐิไปประดิษฐานในพระอุโบสถวัดชนะสงครามราชวรมหาวิหาร[1] เป็นต้นราชสกุลกัลยาณะวงศ์